Từ nhỏ ông theo cha ra Hải Phòng. Năm 16 tuổi, ông làm thuỷ thủ cho hãng tàu buôn Pháp, chạy qua nhiều nước châu Âu, châu Phi, châu Mỹ La Tinh...
Ở Pháp, Bùi Lâm được đọc báo Người cùng khổ của Nguyễn Ái Quốc, đã cố công tìm gặp được Người vào năm 1922.Nguyễn Ái Quốc giao nhiệm vụ cho Bùi Lâm và các thuỷ thủ Việt Nam tổ chức đường dây liên lạc, chuyển tài liệu cách mạng về Việt Nam.
Tháng 11 năm 1925 Bùi Lâm gia nhập Đảng Cộng sản Pháp, đến cuối năm 1927, Bùi Lâm được Đảng cộng sản Pháp cử đến Mátscơva học trường Đại học Phương Đông.
Cuối năm 1929, về Sài Gòn, hoạt động trong tổ chức An Nam cộng sản Đảng trực tiếp phụ trách công đoàn. *Khi Đảng cộng sản Đông Dương thành lập, Bùi Lâm được cử làm uỷ viên thường vụ xứ uỷ Nam Kỳ.
Đến tháng 2/1931, được phái ra miền Bắc công tác và bị địch bắt ở Hải Phòng bị kết án 5 năm tù khổ sai, đầy đi Côn Đảo. Sau mãn hạn tù (12/1936) Bùi Lâm về Hải Phòng hoạt động. Tại đây, cùng với Nguyễn Công Hoà, Nguyễn Đức Cúc (Nguyễn Văn Linh)... vận động nhân dân đấu tranh đòi quyền lợi hàng ngày đồng thời kết hợp hoạt động Mặt trận Dân chủ.
Khoảng tháng 9/1941, Bùi Lâm lại bị bắt ở Thanh Hoá và bị thực dân Pháp giam cầm, đày đọa rất dã man ở các nhà tù: Hoả Lò (Hà Nội), Hải Phòng, Quảng Ngãi, Buôn Mê Thuột, Sơn La... Trong các nhà tù, Bùi Lâm luôn luôn tỏ ra là một đảng viên cộng sản kiên định, trung thành, nguy hiểm không sờn, khó không lùi bước.
Tháng 3 năm 1945 ông đã vượt ngục, tích cực tham gia giành và bảo vệ chính quyền cách mạng non trẻ.
Hoạt động trong ngành Tòa án
Ngày 14 tháng 2 năm 1946, Chính phủ Việt Nam dân chủ cộng hoà ra sắc lệnh (số 21) lập Toà án quân sự đặc biệt và cử ông phụ trách. Với cương vị quan trọng này Bùi Lâm đã góp phần quan trọng thực hiện đường lối bảo vệ cách mạng của Đảng, kịp thời trừng trị bọn phản cách mạng điển hình là vụ Ôn Như Hầu. Ông được coi như Bao Công trong ngành tòa án quân sự [1].
Trong kháng chiến chống thực dân Pháp, ông phụ trách Tòa án Quân sự liên khu III, rồi lại phụ trách Toà án nhân dân Liên khu III.
Từ năm 1954 đến năm 1957, ông giữ chức Giám đốc Vụ Hành chính Tư pháp (thuộc Bộ Tư pháp), rồi Phó Viện trưởng Viện Công tố Trung ương.
Ông trúng cử đại biểu quốc hội khoá II (1960-1965) và được cử làm Đại sứ đặc mệnh toàn quyền nước ta tại nước Cộng hoà nhân dân Bungari (từ 1960) và Đại sứ đặc mệnh toàn quyền tại nước Cộng hoà dân chủ Đức (năm 1964).
